📘 Clase 01: Fundamentos de LLMs, Tokens y Arquitectura Transformer
- :material-bookmark: Curso: Curso 3: Creación y Desarrollo de Agentes de IA (CLASE 01)
- :material-signal-cellular-outline: Nivel:
Nivel 3 - Avanzado - :material-lightbulb-on: Metáfora Central: «El Traductor de Sílabas y Piezas de LEGO (Tokens & Context Window)»
- :material-laptop: Wisrovi Studio (Local): 🚀 Abrir Reto • 👨🏫 Modo Tutor
- :material-file-pdf-box: Manual PDF Oficial: Descargar clase-01-fundamentos-llm-tokenizacion.pdf
-0284c7?logo=python&logoColor=white){kind=icon}
1. 💡 Fundamentación Teórica y Modelo Mental
Los Modelos de Lenguaje Grande (LLMs) procesan texto transformado en tokens: 1. Tokenización: División de palabras en fragmentos semánticos (1 token ≈ 4 caracteres / 0.75 palabras). 2. Context Window: Límite de atención del modelo (ej: 128k tokens). 3. Cálculo de Consumo: Medición de tokens de entrada (Prompt) y salida (Completion) para presupuestación.
🌟 Modelo Mental de la Sesión: «El Traductor de Sílabas y Piezas de LEGO (Tokens & Context Window)»
En esta sesión anclamos el aprendizaje en la metáfora del mundo real para visualizar cómo fluyen las estructuras de datos y el flujo de ejecución en la memoria.
2. 🗺️ Arquitectura de Ejecución y Diagrama de Flujo
flowchart LR
A["📝 Texto Original: 'Agentes de IA'"] --> B["🧩 Tokenizador: [1420, 310, 8950]"]
B --> C["🧠 Modelo Transformer (Attention)"]
C --> D["📤 Predicción del Siguiente Token"]
style A fill:#1e293b,color:#ffffff,stroke:#3b82f6,stroke-width:2px
style B fill:#0f766e,color:#ffffff,stroke:#2dd4bf,stroke-width:2px
style C fill:#581c87,color:#ffffff,stroke:#c084fc,stroke-width:2px
style D fill:#059669,color:#ffffff,stroke:#34d399,stroke-width:2px3. 💻 Código de Implementación Práctica
```python def estimar_tokens_demo(texto: str) -> int:
Regla empírica estándar: ~4 caracteres por token
return max(1, len(texto) // 4)
print("Tokens estimados para 'Wisrovi Python Academy':", estimar_tokens_demo("Wisrovi Python Academy")) ```
```python texto_prompt = "Explica la teoría de la relatividad en 3 puntos."
tokens = len(texto_prompt.split()) * 1.3 print(f"Aproximación de tokens: {tokens:.1f}") ```
4. 🛡️ Buenas Prácticas PEP 8: Antipatrones vs Código Pythonic
⚠️ Cuidado con los Antipatrones
5. 🏋️ Desafío Práctico de la Clase
🎯 Enunciado del Reto
Crea una función estimar_costo_tokens(texto: str, precio_por_1k: float = 0.002) -> dict[str, Any] que estime los tokens (asumiendo 1 token = 4 caracteres) y retorne un dict con: 'caracteres', 'tokens_estimados' y 'costo_usd'.
⚡ Resolución Híbrida en 1 Clic (Local + Web)
Si tienes ejecutando wisrovi ui en tu terminal local, puedes 🚀 Abrir este Reto directamente en tu Studio Local (127.0.0.1:8501) para escribir tu código con auto-formateo AST, inspeccionar variables en el Heap/Stack y evaluarlo con pruebas en tiempo real.
```python from typing import Dict, Any
def estimar_costo_tokens(texto: str, precio_por_1k: float = 0.002) -> Dict[str, Any]: # ✍️ Calcula caracteres, tokens_estimados y costo_usd chars = len(texto) tokens = max(1, chars // 4) costo = (tokens / 1000.0) * precio_por_1k return { "caracteres": chars, "tokens_estimados": tokens, "costo_usd": round(costo, 6) }
```
💡 Pista Socrática 1
💡 Pista 1: Calcula los tokens como max(1, len(texto) // 4).
💡 Pista Socrática 2
💡 Pista 2: El costo es (tokens / 1000.0) * precio_por_1k.
💡 Pista Socrática 3
💡 Pista 3: Retorna el diccionario con las claves exactas requeridas.
Para resolver este ejercicio en tu entorno:
1. Abre el archivo ejercicios/reto.py de esta clase en Visual Studio Code o utiliza wisrovi ui / wisrovi tutor.
2. Implementa tu solución cumpliendo los requisitos y contratos de tipado.
3. Valida tus resultados ejecutando las pruebas unitarias: